算力终结者来了!华人天团「降维打击」注意力瓶颈,AI狂飙进对数时代 算力终结者来了!华人天团「降维打击」注意力瓶颈,AI狂飙进对数时代 关键词: AI,Log-Linear Attention,模型训练,人工智能 注意力机制的「平方枷锁」,再次被撬开!一招Fenwick树分段,用掩码矩阵,让注意力焕发对数级效率。更厉害的是,它无缝对接线性注意力家族,Mamba-2、DeltaNet 全员提速,跑分全面开花。长序列处理迈入log时代! 来自主题: AI技术研报 7013 点击 2025-06-08 15:27